dsh-llm-failover:DeepSeek Harness 模型提供方故障转移插件
`dsh-llm-failover` 是 DeepSeek Harness (DSH) 的一个故障转移插件,旨在解决模型提供方限流或配额耗尽导致的请求中断问题。该插件通过自动检测 `RATE_LIMIT` 或 `QUOTA` 错误,根据配置在提供方列表中自动切换,直至找到可用服务或到达永久兜底项。它支持按提供方配置不同模型、冷却机制及 UI 提示,可通过 YAML 文件或设置卡片配置。插件依赖特定库,以当前进程权限运行,适合需要高可用性的开发场景。
阅读全文